【資料公開】Google CloudのLLM活用の選択肢を広げるVertex AIのパートナーモデル #midosuji_tech
Vertex AIでパートナーモデルとして提供される人気なLLMのマネージドAPIについて紹介しました。
2024.09.13データ事業本部 インテグレーション部 機械学習チームの鈴木です。
2024 年 9 月 11 日 にクラスメソッドの大阪オフィスで Midosuji Tech #2 という勉強会がありました。
「Google CloudのLLM活用の選択肢を広げるVertex AIのパートナーモデル」というタイトルで登壇しましたので資料を公開します。
Midosuji Tech について
Midosuji Tech は、クラスメソッド株式会社の大阪オフィスで開催する IT 技術の勉強会です。気になる技術、流行りの技術など、技術全般について自由に語ったり議論するコミュニティです。
毎回テーマを決めて開催しますので、ご興味のあるテーマの際はぜひご参加ください！
登壇した資料
ポイント
Gemini以外の人気モデルを、インスタンスの用意なしにマネージドAPIとして利用できる点がポイントとご紹介しました。Vertex AIのAPIとして利用できます。
発表時点ではAnthropic ClaudeとMistral AIが一般提供されています。
リージョンについては以下のガイドで紹介されています。発表時点では東京リージョンはまだのためご留意ください。
特にAnthropic ClaudeはプレビューでBigQuery MLとの統合もアナウンスされています。より多くの選択肢を持ってLLM活用ができるのはとてもよいなと思います。
今回は現時点でパートナーモデルをBigQueryから使うとすると、というユースケースもご紹介しました。
最後に
Midosuji Tech #2の資料についてご共有しました。参考になりましたら幸いです。
